„KI-Anbieter nutzen die Benutzerfreundlichkeit von Schnittstellen aus.“

Diese Woche standen zwei Veranstaltungen ganz im Zeichen des Schutzes und der Verletzung personenbezogener Daten: Der GDPR-Tag in Bologna, der sich auf die Einhaltung gesetzlicher Bestimmungen (vom KI-Gesetz bis zur NIS2) konzentrierte, und die Privacy Week (bis Freitag, den 31. Oktober 2025), ein Treffen in Mailand, das zahlreiche Experten zusammenbrachte, um die mögliche Zusammenarbeit zwischen Mensch und künstlicher Intelligenz unter Berücksichtigung von Datenschutz, Ethik und gesetzlichen Bestimmungen zu diskutieren. Das Thema ist sensibel und komplex, da so viele Faktoren unser Online-Leben beeinflussen: von den Vorteilen der Nutzung unserer digitalen Daten bis hin zu den Risiken, die entstehen, wenn wir die Nutzungsbedingungen einer App (ungelesen) akzeptieren oder Smart-Geräte zu Hause oder im Auto unachtsam nutzen – Situationen, in denen das Bewusstsein für die Gefahren (und damit auch für Schutzmaßnahmen) abnimmt und so Angreifern Tür und Tor öffnet.

Die Risiken, denen wir ausgesetzt sind, sind vielfältig und reichen von bekannten Bedrohungen wie Ransomware und Spyware bis hin zu komplexeren Gefahren wie Deepfakes und Deep Voice – hochentwickelten Foto- und Audiomontagen, die die Identität einer anderen Person annehmen können. Dazu gehört auch das sogenannte „ Sharenting “, also das Teilen von Inhalten Minderjähriger durch Eltern. Paradoxerweise entwickelt sich das Smart Home zu einem Ort, an dem wir über genau die Geräte ( allen voran Überwachungskameras, aber auch digitale Assistenten, Fernseher und andere vernetzte Geräte) ausspioniert werden können, die uns eigentlich mehr Sicherheit oder zumindest einen besseren Lebensstil garantieren sollen. Hinzu kommt natürlich das Problem der Gesichtserkennung im öffentlichen Raum und der auf künstlicher Intelligenz basierenden prädiktiven Polizeisysteme: Das KI-Gesetz dürfte deren Einsatz in der EU – sofern es nicht zu einer grundlegenden Kehrtwende kommt – auf lange Sicht verhindern.

Guido Scorza, Mitglied des Gremiums der italienischen Datenschutzbehörde (Garante della Privacy), war einer der Redner bei der Veranstaltung in Bologna und analysierte in einem Interview mit Il Sole 24 Ore die Fortschritte zweier wichtiger Datenschutzrahmen: des KI-Gesetzes und der DSGVO. „Obwohl sie sich überschneiden“, erklärte er, „behandeln die beiden Verordnungen unterschiedliche Bereiche und zielen darauf ab, dass die Grundrechte und -freiheiten der Menschen in Europa in einer Gesellschaft von Daten und Algorithmen geachtet werden. Leider sind wir noch nicht am Ziel und können daher nicht von einem vollständigen Datenschutz sprechen, denn das Vorhandensein von Regeln ist zwar eine notwendige, aber keine hinreichende Voraussetzung, um die Auswirkungen künstlicher Intelligenz auf die Gesellschaft zu steuern.“

Es mangelt daher nicht an kritischen Fragen im Zusammenhang mit diesem Thema, und es ist offensichtlich, dass noch ein langer Weg vor uns liegt, um die von Scorza hervorgehobene Gefahr abzuwenden, dass die Technokratie die Demokratie verdrängt. Es besteht kein Zweifel, dass große Technologiekonzerne, KI-Dienstleister und Anbieter von Smart-Home-Produkten Milliarden von Datenpunkten über das digitale Verhalten der Menschen sammeln und damit die Tür öffnen, ausspioniert oder zumindest zu Komplizen eines Profiling-Systems zu werden, dessen Ziele über den reinen Profit hinausgehen. Wie können wir dieses Problem angehen? „Das wirksamste Mittel, um dem Überwachungskapitalismus und der Überwachung durch den Kapitalismus entgegenzuwirken“, erklärt der Experte, „ist die Investition in die Aufklärung der Bevölkerung über den bewussten Umgang mit diesen Technologien und die Sensibilisierung aller für ihre Regeln und Rechte. Doch auch hier hinken wir hinterher, und Italien noch mehr als der Rest Europas, wo wir im Hinblick auf die grundlegende digitale Kompetenz den drittletzten Platz belegen.“

Scorza hebt einen weiteren wichtigen Punkt hervor, der KI-Dienstleister betrifft, „die die Benutzerfreundlichkeit ihrer Schnittstellen ausnutzen und uns vorgaukeln, sie seien so einfach zu bedienen, dass wir sie bedenkenlos und sorglos nutzen können, ohne uns allzu viele Gedanken über die Folgen für den Datenschutz zu machen.“ Konkret bezieht er sich dabei auf OpenAI und andere Akteure im Bereich der generativen KI, einem Werkzeug, mit dem „jeder einzelne Nutzer den Unternehmen, die diese Dienste anbieten, sehr viel über sich preisgibt.“